Apache Kafka

Продукт
Разработчики: Apache Software Foundation (ASF)
Дата последнего релиза: 2014/04/29
Технологии: СУБД

Содержание

Apache Kafka - распределённый программный брокер сообщений, проект с открытым исходным кодом[1].

2020: Доступность Yandex Managed Service for Apache Kafka в Яндекс.Облаке

Платформа Яндекс.Облако открывает доступ к сервису Yandex Managed Service for Apache Kafka, который упрощает для разработчиков и DevOps-инженеров создание и управление приложениями в Яндекс.Облаке, и не требует экспертизы в управлении инфраструктурой Apache Kafka и Apache Zookeeper. Сервис работает в режиме preview, бесплатный доступ предоставляется по запросу. Об этом стало известно 28 июля 2020 года. Подробнее здесь.

2019: Модель развития с привлечением многих заинтересованных сторон

Одной из ключевых потребностей современных ИТ является возможность потоковой передачи данных в реальном времени. Именно для этих целей предназначена платформа Apache Kafka, которая может передавать потоковые данные об истории посещений веб-сайтов, финансовые транзакции и журналы приложений в приложения, разработанные на платформах Apache Spark Streaming, Apache Storm или Apache Samza. Kafka была разработана LinkedIn и в использует модель развития с привлечением многих заинтересованных сторон. По данным ASF, платформа применяется многими крупными компаниями, включая Airbnb, LinkedIn, MailChimp, Netflix, New York Times, Oracle, PayPal, Pinterest, Spotify, Twitter и Uber.

2015: Свойства Apache Kafka

Разработан в рамках Apache Software Foundation. Написан на языке программирования Scala.

Свойства

  • изначально проектировался, как распределённая система, которую легко масштабировать,
  • поддерживает высокую пропускную способность, как со стороны источников, так и для систем-подписчиков,
  • поддерживает объединение подписчиков в группы,
  • обеспечивает возможность временного хранения данных для последующей пакетной обработки.

Одна из особенностей - применение техники, сходной с журналами транзакций, используемых в системах управления базами данных.

Вначале продукт разрабатывала компания LinkedIn, исходные коды проекта открыты в начале 2011 года.

Продукт распространяется под лицензией Apache License 2.0.

Примечания



ПРОЕКТЫ (14) ПРОЕКТЫ НА БАЗЕ (1) ИНТЕГРАТОРЫ (11)
РЕШЕНИЕ НА БАЗЕ (1) СМ. ТАКЖЕ (132)


Подрядчики-лидеры по количеству проектов

За всю историю
2021 год
2022 год
2023 год
Текущий год

  SAP CIS (САП СНГ) (38)
  Softline (Софтлайн) (35)
  РДТЕХ (32)
  BeringPro (БерингПойнт) ранее BearingPoint Russia (28)
  ФОРС - Центр разработки (25)
  Другие (706)

  Сапиенс солюшнс (Sapiens solutions) (7)
  BeringPro (БерингПойнт) ранее BearingPoint Russia (3)
  Navicon (Навикон) (3)
  Wone IT (ранее SoftwareONE Россия, СофтвэрУАН и Awara IT Russia, Авара Ай Ти Солюшенс) (2)
  GlowByte, ГлоуБайт (ранее Glowbyte Consulting, ГлоуБайт Консалтинг) (2)
  Другие (35)

  КРИТ (KRIT) (1)
  Корус Консалтинг (1)
  Arenadata (Аренадата Софтвер) (1)
  Монитор Электрик (1)
  Efsol. Системная интеграция. Консалтинг (1)
  Другие (20)

  Arenadata (Аренадата Софтвер) (5)
  Тантор Лабс (Tantor Labs) (3)
  ФОРС - Центр разработки (2)
  К2 Тех (1)
  Крок (1)
  Другие (18)

  AllSee (АЛЛ СИИ) (1)
  GMCS (1)
  GlowByte, ГлоуБайт (ранее Glowbyte Consulting, ГлоуБайт Консалтинг) (1)
  RDV (РДВ Автоматизация) (1)
  БФТ-Холдинг, БФТ (ранее Бюджетные и Финансовые Технологии) (1)
  Другие (4)

Распределение вендоров по количеству проектов внедрений (систем, проектов) с учётом партнёров

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Oracle (44, 179)
  SAP SE (6, 175)
  Microsoft (23, 142)
  PostgreSQL Global Development Group (14, 120)
  Постгрес профессиональный (ППГ, Postgres Professional) (6, 39)
  Другие (253, 204)

  SAP SE (3, 11)
  Microsoft (3, 11)
  PostgreSQL Global Development Group (3, 10)
  Oracle (2, 4)
  Постгрес профессиональный (ППГ, Postgres Professional) (2, 3)
  Другие (10, 13)

  PostgreSQL Global Development Group (4, 9)
  Постгрес профессиональный (ППГ, Postgres Professional) (2, 6)
  VK Tech (ранее VK Цифровые технологии, ВК Цифровые технологии и Mail.ru Цифровые технологии) (2, 3)
  Arenadata (Аренадата Софтвер) (3, 2)
  Microsoft (2, 2)
  Другие (9, 9)

  PostgreSQL Global Development Group (3, 13)
  Постгрес профессиональный (ППГ, Postgres Professional) (1, 6)
  Arenadata (Аренадата Софтвер) (3, 5)
  Apache Software Foundation (ASF) (3, 4)
  Тантор Лабс (Tantor Labs) (2, 3)
  Другие (8, 10)

  PostgreSQL Global Development Group (3, 7)
  Постгрес профессиональный (ППГ, Postgres Professional) (2, 4)
  Диасофт (Diasoft) (1, 1)
  Другие (0, 0)

Распределение базовых систем по количеству проектов, включая партнерские решения (проекты, партнерские проекты)

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Oracle Database - 143 (106, 37)
  Microsoft SQL Server - 135 (104, 31)
  PostgreSQL СУБД - 120 (77, 43)
  SAP NetWeaver Business Warehouse (SAP BW/4HANA) - 101 (101, 0)
  SAP HANA (High Performance Analytic Appliance) - 75 (71, 4)
  Другие 69

  PostgreSQL СУБД - 10 (7, 3)
  Microsoft SQL Server - 10 (9, 1)
  SAP NetWeaver Business Warehouse (SAP BW/4HANA) - 8 (8, 0)
  Oracle Database - 3 (3, 0)
  SAP HANA (High Performance Analytic Appliance) - 3 (3, 0)
  Другие 6

  PostgreSQL СУБД - 9 (2, 7)
  Oracle Database - 3 (2, 1)
  Tarantool Платформа in‑memory вычислений - 3 (2, 1)
  EMC Greenplum Database Edition - 2 (0, 2)
  SAP NetWeaver Business Warehouse (SAP BW/4HANA) - 1 (1, 0)
  Другие -5

  PostgreSQL СУБД - 13 (4, 9)
  EMC Greenplum Database Edition - 3 (0, 3)
  Apache Kafka - 2 (2, 0)
  Apache Hadoop - 2 (1, 1)
  ClickHouse - система управления базами данных (СУБД) - 2 (2, 0)
  Другие -9

  PostgreSQL СУБД - 7 (3, 4)
  Diasoft Digital Q.Database - 1 (1, 0)
  Другие -4